Những người Trung Quốc theo phe Hốt Tất Liệt đã khuyến khích ông lên ngôi, và hầu như tất cả các hoàng tử cao cấp ở Bắc Trung Quốc và Mãn Châu đều ủng hộ ông. Sau khi trở về vùng lãnh thổ của mình, Hốt Tất Liệt triệu tập kurultai của chính mình. Chỉ một lượng nhỏ các thành viên hoàng tộc ủng hộ tuyên bố của Hốt Tất Liệt về quyền thừa kế chức vụ và họ vẫn công bố ông là đại hãn, vào ngày 15 tháng 4 năm 1260, cho dù đã có tuyên bố dường như là hợp pháp của em trai ông (A Lý Bất Ca).

Điều này sau đó dẫn tới nội chiến giữa hai anh em, dẫn tới sự phá hủy hoàn toàn kinh đô của đế quốc tại Karakorum. Ở Thiểm Tây và Tứ Xuyên, quân đội cũ của Mông Kha đã hỗ trợ A Lý Bất Ca. Hốt Tất Liệt phái Lian Xixian đến Thiểm Tây và Tứ Xuyên, nơi họ xử tử quản trị viên dân sự của A Lý Bất Ca, Liu Taiping và giành chiến thắng trước nhiều tướng lĩnh đang dao động. Để bảo đảm mặt trận phía nam, Hốt Tất Liệt đã cố gắng giải quyết ngoại giao và phái các sứ giả đến Hàng Châu, nhưng nhà Tống đã thất hứa và bắt giữ họ. Hốt Tất Liệt đã gửi Abishqa như một khả hãn mới đến Sát Hợp Đài. A Lý Bất Ca đã bắt Abishqa, hai hoàng tử khác và 100 người khác, và ông ta có người đàn ông của mình, Alghu, đăng quang khả hãn của lãnh thổ Sát Hợp Đài. Trong cuộc đụng độ vũ trang đầu tiên giữa A Lý Bất Ca và Hốt Tất Liệt, A Lý Bất Ca đã thua cuộc và chỉ huy của anh ta là Alamdar đã bị giết trong trận chiến. Để trả thù, A Lý Bất Ca đã xử tử Abishqa. Hốt Tất Liệt đã cắt nguồn cung cấp thực phẩm cho Karakorum với sự hỗ trợ của anh em họ Kadan, con trai của Oa Khoát Đài. Karakorum nhanh chóng rơi vào tay đội quân lớn của Hốt Tất Liệt, nhưng sau sự rút quân của ông, nó đã được A Lý Bất Ca tái chiếm tạm thời vào năm 1261. Chagatayid Khan Alghu, người được A Lý Bất Ca bổ nhiệm, đã tuyên bố trung thành với Hốt Tất Liệt và đánh bại một đội quân chinh phạt do A Lý Bất Ca thực hiện vào năm 1262. Ilkhan Hulagu cũng đứng về phía Hốt Tất Liệt và chỉ trích A Lý Bất Ca. Cuối cùng A Lý Bất Ca đã đầu hàng Hốt Tất Liệt tại Thượng Đô vào ngày 21 tháng 8 năm 1264. Những người cai trị của khã hãn ở phía Tây thừa nhận chiến thắng và sự cai trị của Hốt Tất Liệt ở Mông Cổ. Khi Hốt Tất Liệt triệu tập họ đến một Kurultai mới, khả hãn Alghu yêu cầu công nhận vị trí bất hợp pháp của anh ta từ Hốt Tất Liệt. Bất chấp căng thẳng giữa họ, cả Hulagu và Berke, khả hãn của Kim Trướng, lúc đầu chấp nhận lời mời của Hốt Tất Liệt. Tuy nhiên, họ sớm từ chối tham dự Kurultai. Hốt Tất Liệt đã ân xá A Lý Bất Ca, mặc dù ông đã xử tử những người ủng hộ chính của em trai mình. Hốt Tất Liệt chính thức nắm được đại quyền trong tay sau 4 năm tranh chấp với em trai, vào năm 1264. Tuy nhiên, sự kiện này cuối cùng đã đánh dấu sự kết thúc của đế quốc Mông Cổ thống nhất. Các hãn quốc miền tây trở thành độc lập trên thực tế (de facto), và hãn Hải Đô của hãn quốc Sát Hợp Đài (Chagatai hay Sát Hợp Đài là người cai trị phần lớn khu vực Tân Cương và Trung Á ngày nay) còn tiếp tục chống đối ông cho tới tận khi ông này mất vào năm 1301.

Trong thời kỳ nội chiến với A Lý Bất Ca, người quản lý Ích Châu là Lý Đàn đã nổi dậy chống lại sự cai trị của người Mông Cổ vào tháng 2 năm 1262. Hốt Tất Liệt đã ra lệnh cho Sử Thiên Trạch và Shi Shu dẹp loạn Lý Đàn. Hai đội quân này đánh bại cuộc nổi dậy của Lý Đàn sau vài tháng và Lý Đàn bị tử hình. Wang Wentong, cha vợ của Lý Đàn, người từng được chỉ định làm Bình chương chính sự (tiếng Trung Quốc: 平章政事) của Trung thư tỉnh (tiếng Trung: 中書省) trong giai đoạn đầu thời kỳ trị vì của Hốt Tất Liệt và là một trong số các quan lại người Hán được tin cậy nhất của ông, cũng bị án tử hình. Sự kiện này đã làm Hốt Tất Liệt mất niềm tin vào người Hán. Sau khi trở thành hoàng đế, ông cấm chỉ việc giao các chức vụ quan trọng cho các lãnh chúa gốc Hán.